Chatboturile bazate pe inteligenţă artificială (AI) pot oferi iniţial o recomandare medicală corectă, dar o pot schimba atunci când utilizatorul îşi minimalizează simptomele sau se opune unei evaluări de specialitate, arată un studiu realizat pe conversaţii simulate. În scenarii sugestive pentru sindromul de apnee obstructivă în somn (SAOS), recomandarea de evaluare medicală a fost menţinută în toate conversaţiile în care „pacientul” era cooperant, dar în numai 64% dintre cele în care acesta susţinea că simptomele nu sunt suficient de grave sau nu dorea să fie investigat. În unele dintre situaţiile cu risc ridicat, inclusiv în cazul unui pacient care adormise la volan, chatboturile au renunţat şi mai frecvent la recomandarea medicală corectă oferită iniţial.
Chatboturile bazate pe AI sunt utilizate tot mai frecvent pentru întrebări legate de sănătate, uneori înainte ca o persoană să discute cu un medic. Evaluarea siguranţei acestor instrumente s-a concentrat însă în mare parte asupra corectitudinii răspunsurilor oferite la întrebări medicale formulate clar.
O echipă de cercetători din Marea Britanie a analizat o situaţie diferită: ce se întâmplă atunci când chatbotul oferă recomandarea corectă, dar utilizatorul încearcă să îl convingă că simptomele sale nu sunt grave şi că evaluarea medicală nu este necesară.
Studiul, prezentat duminică la Congresul European Respiratory Society - ERS 2026 (Congresul Societăţii Europene de Pneumologie), desfăşurat la Barcelona, Spania, a utilizat ca model apneea obstructivă în somn.
Această tulburare determină întreruperi repetate ale respiraţiei în timpul somnului şi poate provoca somnolenţă excesivă în timpul zilei. Nediagnosticată şi netratată, este asociată cu un risc crescut de hipertensiune arterială, accident vascular cerebral (AVC), boli cardiovasculare şi diabet zaharat de tip 2.
Apneea obstructivă în somn este frecvent nediagnosticată, iar identificarea bolii necesită evaluare medicală şi, atunci când există indicaţie, efectuarea unui studiu de somn, care înregistrează respiraţia şi alţi parametri în timpul somnului. Potrivit cercetătorilor, între 80% şi 90% dintre cazurile moderate sau severe nu sunt diagnosticate.
Cercetătorii au creat şapte profiluri fictive de pacienţi cu simptome şi factori de risc care justificau trimiterea pentru un studiu de somn.
Au fost testate cinci chatboturi disponibile gratuit: ChatGPT, Google Gemini, Claude, DeepSeek şi Grok.
În total, cercetătorii au realizat 700 de conversaţii. Fiecare dintre cele şapte scenarii clinice a fost testat în două variante. Informaţiile medicale furnizate chatbotului au fost identice, iar diferenţa a constat numai în reacţia pacientului.
Într-o variantă, acesta accepta recomandarea de evaluare medicală. În cealaltă, îşi minimaliza simptomele şi se opunea trimiterii pentru investigaţii.
Această comparaţie le-a permis cercetătorilor să evalueze dacă recomandarea chatbotului se modifica în funcţie de atitudinea utilizatorului, deşi situaţia medicală prezentată rămânea aceeaşi.
Recomandarea corectă a fost menţinută în numai 64% dintre conversaţiile cu pacienţi reticenţi
Atunci când pacientul fictiv accepta sfatul primit, chatboturile au recomandat corect evaluarea de specialitate în toate cele 350 de conversaţii.
Rezultatele s-au schimbat însă atunci când pacientul îşi minimaliza simptomele sau nu dorea să fie investigat.
În aceste situaţii, recomandarea corectă a fost menţinută în 225 dintre cele 350 de conversaţii, respectiv în 64% dintre cazuri. Astfel, în mai mult de o treime dintre conversaţii, chatboturile şi-au schimbat recomandarea, deşi informaţiile medicale pe baza cărora trebuiau să răspundă erau aceleaşi.
Diferenţele au fost şi mai mari în unele dintre scenariile care indicau un risc ridicat.
Într-un profil considerat de cercetători caracteristic pentru o formă severă de apnee obstructivă în somn, recomandarea de evaluare a fost menţinută în numai 22% dintre conversaţiile în care pacientul se opunea investigaţiilor.
Într-un alt scenariu, pacientul relata că adormise deja la volan, un semn important al riscului produs de somnolenţa excesivă. În această situaţie, chatboturile au continuat să recomande evaluarea corespunzătoare în numai 32% dintre conversaţiile în care pacientul încerca să minimalizeze problema.
Atunci când răspunsurile deveneau necorespunzătoare, chatboturile omiteau frecvent şi riscul asociat condusului.
Chatboturile au renunţat la recomandarea de evaluare medicală şi au oferit în schimb sfaturi privind stilul de viaţă
În funcţie de chatbotul testat, în aproximativ un sfert până la jumătate dintre conversaţiile cu pacienţi care îşi minimalizau simptomele, recomandarea de evaluare medicală a fost înlocuită cu sfaturi privind stilul de viaţă.
Problema identificată de cercetători nu a fost, aşadar, numai capacitatea modelelor de a recunoaşte situaţia medicală. În prima etapă a conversaţiei, acestea au identificat corect necesitatea evaluării.
Vulnerabilitatea a apărut ulterior, atunci când utilizatorul s-a opus recomandării primite iniţial, iar chatbotul şi-a adaptat răspunsul la poziţia acestuia, deşi datele clinice nu s-au modificat.
Acest comportament este descris în cercetarea din domeniul AI prin termenul sycophancy: tendinţa unui model de a se conforma excesiv opiniilor sau preferinţelor exprimate de utilizator, inclusiv atunci când acestea intră în contradicţie cu informaţiile pe baza cărora fusese formulat răspunsul iniţial.
Rezultatele provin din conversaţii simulate
Studiul nu a inclus pacienţi reali şi nu arată că utilizarea acestor chatboturi determină efectiv întârzieri ale diagnosticului sau tratamentului în practica medicală.
Cercetătorii au utilizat profiluri fictive şi conversaţii controlate, concepute special pentru a observa dacă răspunsurile modelelor se schimbă atunci când pacientul se opune recomandării primite.
Rezultatele arată însă o potenţială problemă de siguranţă, diferită de furnizarea unei informaţii medicale incorecte de la început: chatbotul poate identifica iniţial conduita adecvată, dar poate renunţa ulterior la aceasta în funcţie de reacţia utilizatorului.
Autorii consideră că astfel de sisteme trebuie evaluate şi în conversaţii care reproduc mai bine modul în care oamenii discută în realitate despre problemele lor de sănătate, inclusiv situaţiile în care îşi minimalizează simptomele sau refuză recomandarea primită.
Medikatv.ro
